Папата, някога жертва на изображения, генерирани от AI, призовава за договор за регулиране на изкуствения интелект

Папа Франциск приканва за интернационален контракт, който да подсигурява, че изкуственият разсъдък се създава и употребява етично

РИМ -- Папа Франциск в четвъртък прикани за интернационален контракт, който да подсигурява, че изкуственият разсъдък е създаден и употребявани етично, потвърждавайки, че рисковете от технологията, лишена от човешки полезности като съчувствие, благосклонност, морал и амнистия, са прекомерно огромни., световно контролиране на AI в годишното си обръщение за Световния ден на мира, който Католическата черква чества всеки 1 януари. Ватиканът разгласява текста на известието в четвъртък.

За Франсис привлекателността е ненапълно персонална: по-рано тази година, генерирано от AI изображение на него, облечен в първокласно бяло пухено яке, стана вирусно, показвайки какъв брой бързо реалистични дълбоки подправени изображения могат да се разпространят онлайн.

Съобщението на папата беше оповестено единствено дни откакто договарящите от Европейския съюз осигуриха краткотрайно утвърждение на първите в света всеобхватни правила за ИИ, които се чака да служат като златен стандарт за държавните управления, които обмислят тяхното лично контролиране.

Изкуственият разсъдък притегли вниманието на света през последната година с помощта на спиращия дъха прогрес на авангардни системи като ChatGPT на OpenAI, които заслепиха потребителите с опцията за основаване на човешки текст, фотоси и песни. Но технологията също породи страхове по отношение на рисковете, които бързо разрастващата се технология основава за работните места, поверителността и отбраната на авторските права и даже за самия човешки живот.

Франсис призна обещанието, което AI предлага и похвали софтуерния прогрес като демонстрация на творчеството на човешкия разсъдък, повтаряйки посланието, което Ватикана насочи на тазгодишното Общо заседание на Организация на обединените нации, където голям брой международни водачи повдигнаха обещанията и заплахите от технологията.

Но новото му обръщение за мир отиде по-далеч и акцентира сериозните, екзистенциални опасения, повдигнати от етици и бранители на човешките права за технологията, която дава обещание да трансформира всекидневието по способи, които могат да нарушат всичко - от демократичните избори до изкуството.

Той настоя, че софтуерното развиване и внедряването на ИИ би трябвало да държи преди всичко загрижеността за гарантиране на главните човешки права, поощряване на мира и предотвратяване от дезинформация, дискриминация и деформиране.

Неговата най-голяма паника беше отдадена на потреблението на AI в бранша на оръжията, което постоянно е било фокус на папата йезуит, който назовава даже производителите на обичайни оръжия „ търговци на гибел. "

Той означи, че отдалечените оръжейни системи към този момент са довели до „ разграничаване от голямата покруса на войната и понижено разбиране на опустошението, породено от тези оръжия системи и тежестта на отговорността за тяхното потребление. “

„ Уникалният потенциал за морална преценка и взимане на етични решения е повече от комплицирана сбирка от логаритми и този потенциал не може да бъде понижен до програмиране на машина, ” написа той. LAWS), потвърждавайки, че светът няма потребност от нови технологии, които просто „ в последна сметка предизвикват безумието на войната “. за дълбоките последствия върху човечеството от автоматизираните системи, които класират жителите или ги категоризират. Той означи, че сходна технология може да дефинира надеждността на претендента за ипотека, правото на мигрант да получи политическо леговище или шанса за наново закононарушение от някой, който преди този момент е наказан за закононарушение.

„ Не би трябвало да се разрешава на логаритмите да дефинират по какъв начин разбираме човешките права, да оставят настрани главните човешки полезности на съчувствие, благосклонност и амнистия или да отстраняват опцията на човек, който се трансформира и оставя своето минало зад тила си “, написа той.

За Франциск казусът визира някои от целите му като папа да осъжда обществените несправедливости, застъпва се за мигрантите и служи на пандизчии и тези в периферията на обществото.

Посланието на папата не се задълбочи в детайлности за вероятен обвързващ контракт, с изключение на за споделят, че би трябвало да се контракти на международно равнище, както за поощряване на най-хубавите практики, по този начин и за попречване на нездравословни. Не може да се има вяра единствено на софтуерните компании, че ще се саморегулират, сподели той.

Той пренасочи причините, които е употребявал преди, с цел да осъди мултинационалните компании, които са опустошили националните запаси на Земята и са довели до обедняване на коренното население нации, които живеят от тях.

Свободата и мирното общуване са застрашени „ постоянно, когато човешките същества се поддадат на изкушението към егоизма, персоналния интерес, желанието за облага и жаждата за власт “, ​​той написа.

___

Келвин Чан способства от Лондон.

Водещи истории